第一任所长王大珩（兼），任职时间：1964.8－1977。
王大珩，应用光学家。原籍江苏苏州，生于日本东京。1936年毕业于清华大学。中国科学院长春光学精密机械研究所研究员、所长、名誉所长。我国光学事业奠基人之一。为国防现代化研制各种大型光学观测设备有突出贡献；为我国的光学事业及计量科学的发展起了重要作用。50年代创办了中国科学院仪器馆，以后发展成为长春光学精密机械研究所。领导该所早期研制我国第一埚光学玻璃、第一台电子显微镜、第一台激光器，并使它成为国际知名的从事应用光学和光学工程的研究开发基地。1986年和王淦昌、陈芳允、杨嘉墀联名，提出发展高技术的建议（“863”计划）。还与王淦昌联名倡议，促成了激光核聚变重大装备的建设。提倡并组织学部委员主动为国家重大科技问题进行专题咨询，颇有成效。1992年与其他五位学部委员倡议并促成中国工程院的成立。1999年荣获“两弹一星功勋奖章”。
1955年选聘为中国科学院院士（学部委员）。
第二任所长干福熹，任职时间：1978.6－1984.8。
干福熹，光学材料、非晶态物理学家。浙江杭州人。1952年毕业于浙江大学。1959年获苏联科学院硅酸盐化学研究所副博士学位。中国科学院上海光学精密机械研究所研究员。1957年建立了我国第一个光学玻璃试制基地。建立了我国耐辐射光学玻璃系列；研究光学玻璃的成分和性质的关系，发展新品种。研究激光玻璃的激光及发光特性；研制掺钕激光玻璃，国内第一个获得激光输出；建立激光钕玻璃系列，研究过渡元素及稀土离子在玻璃中的光谱及发光性质；研究玻璃的光学常数及外场作用下的非线性性质；研究玻璃的物理性质变化规律，在此基础上建立完整的无机玻璃性质的计算体系。研究光存储用各种先进薄膜，发展了可擦重写新型光盘。曾获国家自然科学三等奖、国家科学进步二等奖、中国科学院科技进步一等奖、国家优秀科技图书特等奖等。1997年获何梁何利科学和技术进步奖。2001年获国际玻璃界的大奖－国际玻璃协会主席奖。
1980年当选为中国科学院院士（学部委员）。
第三任所长：王之江；任职时间：1984.8－1992.7。
王之江，物理学家。江苏常州人。1952年毕业于大连大学工学院物理系。上海光学精密机械研究所研究员。在光学设计方面，发展了象差理论和象质评价理论，形成了新的理论体系，完成了大批光学系统设计（如照相物镜系统、平面光栅单色仪、长工作距反射显微镜、非球面特大视场目镜、105# 大型电影经纬仪物镜等）；在激光科学技术方面，领导研制成中国第一台激光器，并在技术和原理上有所创新。70年代领导完成了高能量、高亮度钕玻璃激光系统。在这项工作中解决了一系列理论、技术及工艺问题。关于某些激光重大应用对亮度要求的判断，使工作避免了盲目性，对于中国激光科学技术起了积极作用。倡议和具体领导了中国“七五”攻关中激光浓缩铀项目。对中国光信息处理和光计算起了倡导作用。
1991当选为中国科学院院士（学部委员）。
第四任所长徐至展，任职时间：1992.7－2001.7。
徐至展，物理学家，江苏常州人。1962年毕业于复旦大学物理系，1965年北京大学研究生毕业。上海光学精密机械研究所研究员。 中国科学院上海光学精密机械研究所研究员、所学术委员会主任。国家“973”计划项目首席科学家、《光学学报》主编。主要从事激光物理、现代光学与等离子体物理领域的研究。长期主持激光核聚变研究，作出开拓性突出贡献。在强光与物质相互作用领域，进行了系统的深入研究，取得系列开创性重要成就。首次在国际上用类锂和类钠离子方案获得8条新波长的X射线激光。在开拓与发展新型超短超强激光及强场超快物理等方面取得重大创新成果。作为第一获奖人曾获国家科技进步奖一等奖1项、国家自然科学奖二等奖2项、国家发明奖二等奖1项等。
1991年当选为中国科学院院士（学部委员）。2004年当选为第三世界科学院院士。
第五任所长朱健强，任职时间：2001.7—2009.8。
朱健强，江苏省苏州市人。1988年毕业于哈尔滨工业大学应用光学及光学工程专业，1993年在中国科学院上海光学精密机械研究所研究生毕业，获博士学位。主要从事激光驱动器的总体光学设计、结构设计、相关检测技术和测控技术等。在结构设计的基础上，开展制造工艺及技术的研究，尤其在精密机械零件、特种专用工艺装备等方面的研究，做出了一系列技术创新工作。在国内率先开展光学精密机械设计的研究。将有限元法用在光学工程领域，成功地解决了激光放大器设计中的一系列关键技术难题。积极推动我国高能固体激光装置的研制，对推动“国家点火工程”的立项起了重要作用。
获得中国科学院杰出科技成就奖、国家科技进步二等奖各一项。
第六任所长李儒新，任职时间：2009.8—2019.11。
李儒新，光学专家。中国科学院上海光学精密机械研究所研究员。1969年10月出生于福建省建瓯市，籍贯福建建瓯。1990年毕业于天津大学精密仪器系光电子技术专业，1995年于中国科学院上海光学精密机械研究所获博士学位。2017年当选为中国科学院院士。
主要从事超高峰值功率超短脉冲激光与强场激光物理研究。在超高峰值功率超短脉冲激光方面，与合作者一道解决了大口径高增益宽带激光放大器的寄生振荡抑制等关键科学技术问题，建成了拍瓦激光实验装置并取得重要应用成果。在强场激光物理方面，与合作者一道在激光尾波场的级联加速和高性能高能电子束产生、基于亚周期时间尺度相干控制的强场高次谐波与阿秒光源产生等方面取得重要成果。曾获国家自然科学奖二等奖、国家科技进步奖一等奖、中国青年科技奖等。